防范人工智能风险要有安全阀

  党的二十届三中全会审议通过的《中央关于进一步全面深化改革、推进中国式现代化的决定》强调，建立人工智能安全监管制度。作为一种战略性新兴技术，人工智能已深度融入人们的生产生活，对于工作效率的提升大有裨益，还不断催生出新产业、新业态、新商业模式，持续为经济社会持续健康发展注入新动能。作为人工智能的一个重要组成部分，生成式人工智能技术的快速的提升，涵盖虚拟现实、医疗保健、创意产业等多个领域，为各行各业带来更多创新与价值。不过，当前也要密切关注注意生成式人工智能可能引发的数据安全、信息误导等风险挑战，坚持发展与安全并重。

  所谓生成式人工智能技术（AIGC），是指基于算法、模型、规则等，生成文本、声音、图片、视频等内容的新一代人工智能技术。算力、算法、数据是这种技术发展的三大核心要素，这几个要素的综合作用，使得其具备自生成模式，能实现闭环式学习体系的构建，通过利用海量数据信息，自主学习要素，进而生成原创性的专业相关知识内容或产品并可以一直更新，进行自我升级迭代。基于这些特点，慢慢的变多的行业正将其作为提高生产力水平的新要素，创造出指数级的价值，并催生了大量的产业应用，教育、娱乐、商业等领域均有所及。2022年末，美国OpenAI公司推出的ChatGPT标志着这一技术在文本生成领域取得显著进展。世界知识产权组织（WIPO）不久前发布的《生成式人工智能专利态势报告》显示，2014年到2023年，中国生成式人工智能专利申请量超3.8万件，居世界第一位，是第二名美国的6倍。

  生成式AI是把双刃剑，在加强研发技术和创新的同时，需努力提高其安全性和可控性，有效识别潜在风险和漏洞并形成应对策略。2023年8月15日正式施行的《生成式人工智能服务管理暂行办法》指出，有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。因此，未来要逐步推动生成式人工智能的发展，应从网络安全、数据安全、个人隐私信息保护等层面入手，采取包容审慎的态度，从技术、伦理、法律等多方面设置“安全阀门”，防范生成式人工智能风险。

  一方面，完善有关规定法律法规的有效界定，合理有效监管。加快立法进程，针对数据、内容安全、知识产权等生成式人工智能发展的关键问题，进行分类管理、分类立法，通过政策立法对生成式人工智能的设计、演进进行有效引导、统筹管理。明确监管底线，制定相应技术使用规则和行业规范，强化对生成式人工智能企业、平台和使用该技术高校各主体等失范行为的监管，及时发现处理违规行为。将“传统事后监管模式”转为“事前预防评估模式”和“事中控制模式”，制定事前评估、风险预警和事中控制规范，有效减少安全事件的发生、降低安全事件对企业、高校等造成的负面影响。加快制定相应的技术使用规则和应急处理措施，强化对应用生成式人工智能的企业、平台的监管和约束。

  另一方面，持续增强数据安全。建立数据全生命周期监督管理，包括数据采集输入阶段的虚假、错误信息入库管控，数据处理加工阶段的数据标注管控监督，数据输出阶段（二次采集输入阶段）的数据真实性检测验真等。针对医疗、金融、电商、高校等重点领域，通过技术手段保障数据安全。及时发现和处理数据方面的违规行为，保障数据及隐私安全，防止滥用数据造成的损失，确保其符合法律和法规和社会公德。（谭泽宇）

  11月4日，科学技术普及法修订草案首次提请全国人大常委会会议审议，这是科学技术普及法自2002年公布施行以来的首次修订。

  为了种出茁壮可口的生菜，这群来自中国农业大学、上海交通大学、上海农科院、北京市农业技术推广站等高校院所的年轻人使出浑身解数。最终，产量高、品质好、能耗低、花费少的队伍将会胜出。

  中国工程院院士、北京理工大学教授张军团队首创片上光谱复用感知架构，自主研制了全球首款百通道百万像素高光谱实时成像器件，光能利用率创造世界纪录。

  11月6日，中国科学院科技成果转化“融合点”行动首场活动在北京中关村国际创新中心举办。该活动以“焊牢科技与产业融合点，培育发展新质生产力”为主题，旨在通过供需精准对接，加速科技成果转化应用。

  北京时间11月6日8时50分，正在执行中国第41次南极考察任务的“雪龙2”号穿越赤道进入南半球。

  国家重大科学技术基础设施“先进阿秒激光设施（西安部分）”建设真正开始启动。该设施由中国科学院西安光学精密机械研究所承担建设，建设周期5年。

  近邻宜居行星巡天计划（以下简称“CHES计划”）观测策略日前在国际期刊《天文学杂志》发表。研究人员还模拟了目标恒星HD 88230周围宜居带存在一颗类地行星的情形，并进行了仿线

  中国科学院大连化学物理研究所研究员吴凯丰、副研究员杨阳团队制备了具备优秀能力光学性能的低毒性蓝光胶体量子点，并以其溶液为光增益介质，实现了高度稳定的液体激光输出。

  全国农村卫生厕所普及率在75%左右，九成以上的行政村生活垃圾得到收运处理，生活垃圾污水治理（管控）率逐步提升，农村脏乱差局面得到扭转。

  世界卫生组织（以下简称“世卫组织”）公布了一份清单，列出了17种能致人患严重疾病甚至死亡的病原体。

  IgE是过敏反应的核心免疫球蛋白，其与高亲和力受体FcεRI的相互作用至关重要。

  新一代数字技术蒸蒸日上，数字化转型浪潮汹涌澎湃。直播将展示行业数字化最新发展的新趋势AI+等前沿技术的最佳场景应用。

  中国科学院空天信息创新研究院研究员张立福承担的国家自然科学基金重点项目“多维时空谱遥感数据综合与表征关键理论与方法研究”取得重要成果。

  独脚金内酯是近年来发现的一种重要植物激素，在调控植物分枝数目等生长发育关键性状中发挥关键作用。

  期待更多优秀的原创少儿科普读物引领孩子们走进精彩的科学世界，让孩子们在科学的滋养下茁壮成长。

  团队开发了一种利用人工智能指导葡萄育种的新方法，有望缩短育种周期，加速葡萄品种创新。

  数据显示，全球物联网连接数持续迅速增加，在物联网基本的建设、数字化的经济创新发展等方面，中国都“名列前茅”，今年我国物联网连接数有望突破30亿。

  第二次青藏科考队打破世界纪录，在西藏自治区那曲市双湖县境内的普若岗日冰原钻取了全球中低纬度冰川最长的冰芯，长达324米。

  科学家走进校园做主题报告的宣讲形式，让现场师生不仅能感悟科学家精神、研习科学家攻坚克难路径，还可获得学术大家面对面的指导。